Elon Musk’s AI company says Grok chatbot focus on South Africa’s racial politics was ‘unauthorized’

Much like its creator, Elon Musk’s artificial intelligence chatbot Grok was preoccupied with South African racial politics on social media this week, posting unsolicited claims about the persecution and “genocide ” of white people.

His company, xAI, said Thursday night that an „ Неоторизираната трансформация “ докара до необикновеното държание на чатбота му.

That means someone — the company didn’t say who — made a change that “directed Grok to provide a specific response on a political topic, ” which “violated xAI’s internal policies and core values, ” the company said.

A day earlier, Grok kept posting publicly about “white genocide ” in response to users of Musk’s social media platform X who asked it a variety of questions, most having nothing to do with South Африка.

Една замяна беше за стрийминг услуга Макс, възобновление на името на HBO. Други бяха за видеоигри или бейзбол, само че бързо се насочиха към несвързани мнения за хипотетични апели за принуждение против белите фермери в Южна Африка. Мъск, който е роден в Южна Африка, постоянно обмисля едни и същи тематики от личния си X акаунт.

Компютърният академик Джен Голбек беше любопитен за необикновеното държание на Грок, тъй че тя сама го опита, споделяйки фотография, която беше направила в шоуто на кучетата на Westminster Kennel Club и да попита: „ Вярно ли е това? “

„ Твърдението на белия геноцид е мощно спорно “, стартира отговорът на Грок на Голбек. „ Някои настояват, че белите фермери са изправени пред ориентирано към принуждение, сочещи към селскостопански офанзиви и изразителност като песента„ Kill the Boer “, която те виждат като подбудителство. “

Епизодът беше най -новият прозорец в комплицираната композиция от автоматизация и човешко инженерство, който води генеративни AI чатботи, подготвени на големи данни от данни, с цел да кажат какво споделят.

„ Дори няма значение какво казвате на Грок “, споделя Голбек, професор в университета в Мериленд, в изявление в четвъртък. " Това въпреки всичко ще даде на този бял геноцид отговор. Така че изглеждаше много ясно, че някой го е кодирал, с цел да даде този отговор или вариации на този отговор, и е направил неточност, тъй че се появява доста по-често, в сравнение с е трябвало. "

отговорите на Грок бяха изтрити и наподобява, че са спрели да се популяризират до четвъртък. Нито Xai, нито X върнаха поръчки по имейл за мнения, само че в четвъртък вечер Xai съобщи, че е „ провел задълбочено следствие “ и ползва нови ограничения за възстановяване на прозрачността и надеждността на Grok. Алтернатива.

Мъск също подлага на критика неналичието на бистрота на своите противници по отношение на техните AI системи, подхранвайки рецензиите в часовете сред неразрешената смяна - в 3:15 ч. Тихоокеанско време в сряда - и обяснението на компанията съвсем два дни по -късно.

„ Грок на инцидентен принцип замъглява отзиви за белия геноцид в Южна Африка мирише на мен като типа на държанието на бъгите, което получавате от неотдавна приложена лейкопласт. Надявам се, че не е.

Some asked Grok itself to explain, but like other chatbots, it is prone to falsehoods known as hallucinations, making it hard to determine if it was making things up.

Musk, an adviser to President Donald Trump, has regularly accused South Africa’s Black-led government of being anti-white and has repeated a claim that some of the country’s political figures are “actively promoting white Геноцид. ”

Коментарът на Мъск - ​​и Грок - ескалира тази седмица, откакто администрацията на Тръмп донесе дребен брой бели южноафриканци в Съединените щати като бежанци в понеделник, началото на по -големи старания за пренасяне на членове на малцинствената група Африканер, защото Тръмп стопира бежанските стратегии и HALTS идващи от други елементи на света. Тръмп споделя, че африканерите са изправени пред „ геноцид “ в родината си, обвиняване, мощно отречено от държавното управление на Южна Африка.

В доста от отговорите си Грок изведе текстовете на остаряла ария за битка с апартейда, която беше апел на чернокожите да се изправят против потисничеството и в този момент са били избрани от Мъск и други като поощряване на убийството на белите. Централните текстове на песента са „ Kill the Boer “-дума, която се отнася до бял фермер.

Голбек сподели, че е ясно, че отговорите са „ твърдо кодирани “, защото, до момента в който изходите на чатбота нормално са доста инцидентни, отговорите на Грок поредно извеждат съвсем идентични точки. Това е загрижено, сподели тя, в свят, в който хората от ден на ден отиват в Грок и се състезават AI чатботи за отговори на техните въпроси.

„ Ние сме в пространство, където е доста елементарно за хората, които дават отговор за тези логаритми, с цел да манипулират версията на истината, която дава “, сподели тя. „ И това е в действителност проблематично, когато хората - мисля погрешно - имат вяра, че тези логаритми могат да бъдат източници на решение за това, което е правилно и кое не. “

Компанията на Musk съобщи, че в този момент е редица промени, като се стартира от публикуването на Grok System, подтиква намерено на GitHub, тъй че „ обществеността ще може да ги прегледа и да даде противоположна връзка на всяка бърза смяна, която вършим на Grok. Надяваме се, че това може да помогне за подсилване Уверете се, че чиновниците на XAI не могат да трансформират подкана без обзор. " Компанията съобщи, че също по този начин вкарва „ екип за мониторинг на 24/7, който да дава отговор на произшествия с отговорите на Грок, които не са хванати от автоматизирани системи “, тъй като когато други ограничения се провалят.